Создатель ChatGPT: История Сэма Альтмана - Кич Хэйги

укрепления партнерства OpenAI и Microsoft создали Совет по безопасности развертывания (Deployment Safety Board, DSB) – орган, призванный оценивать риски новых продуктов перед их запуском. Для совета директоров, чьи задачи определялись уставом OpenAI с его обещанием служить человечеству, а не гнаться за прибылью, контроль за работой DSB был одной из ключевых обязанностей. Но складывалось впечатление, что Альтман не воспринимает DSB всерьез. На заседании совета OpenAI зимой 2022 года обсуждался выпуск трех довольно спорных улучшений GPT–4. Альтман заверил, что одобрение DSB получили все три. Тонер усомнилась, запросила документы – и выяснилось, что через DSB прошло только одно улучшение, касавшееся API.

Случались и нарушения со стороны Microsoft, но совет OpenAI встревожился, когда о таком инциденте им сообщил один из сотрудников, перехвативший члена совета в коридоре с вопросом: «Вы в курсе про нарушение протоколов безопасности?» – хотя только что закончилось шестичасовое заседание, где Альтман ни словом не обмолвился о проблеме. В конце 2022 года Microsoft запустила тестирование еще не выпущенной GPT–4 в Индии, не дожидаясь одобрения DSB. Разрешение в итоге получили, но сам факт нарушения в Индии навел некоторых членов совета на мысль: система безопасности в компании работает из рук вон плохо.

Каждый из этих эпизодов сам по себе не тянул на серьезную проблему. Но пока совет буксовал в попытках расширить свой состав, каждый день приносил новости об очередном побочном проекте Альтмана. То он летит на Ближний Восток привлекать инвестиции в амбициозный план по наращиванию мирового производства микрочипов. То выводит на биржу Oklo (прошедший через инкубатор YC стартап, который занимался ядерным делением) посредством специальной «компании-пустышки». То главный корпоративный партнер OpenAI, Microsoft, подписывает контракт на покупку энергии у Helion – компании Альтмана по ядерному синтезу (в ожидании фактического изобретения устойчивой термоядерной энергетики). То он встречается с легендарным дизайнером iPhone Джони Айвом, обсуждая какое-то новое ИИ-устройство. Каждый из этих случаев сопровождался объяснениями от Альтмана, и со временем он стал утверждать, что такие проекты, как сбор средств на микрочипы и партнерство с Джони Айвом, велись в интересах OpenAI. Но у совета директоров, узнававшего о его активности из прессы, возникали вопросы.

А потом однажды летним вечером 2023 года один из членов совета OpenAI случайно услышал во время вечеринки беседу о том, как странно устроен венчурный фонд OpenAI Startup Fund: доходы от него не идут инвесторам OpenAI, хотя фонд получает эксклюзивный ранний доступ к продуктам компании. Для совета это стало новостью. О чем вообще речь? Да, OpenAI запустила стартап-фонд в 2021 году, объявив тогда, что он будет «под управлением» OpenAI при участии Microsoft и других инвесторов. Фонд вложился в юридический ИИ-стартап Harvey и еще несколько компаний. Но что за история с доходами, недополученными инвесторами OpenAI? Совет начал расспрашивать Альтмана, и после нескольких месяцев препирательств наконец выяснилось, что фондом владеет сам Альтман, который привлекает деньги от ограниченных партнеров. При стандартной схеме это означало бы, что Альтман получает carried interest – комиссию и долю прибыли, положенные создателю фонда. В OpenAI заявили, что у Альтмана не было в фонде никакого финансового интереса, а оформил он его на себя просто потому, что так было быстрее (первоначально совету объясняли это налоговыми преимуществами такой структуры). Но подобное объяснение делало и без того странную конструкцию еще более подозрительной. Независимые директора чувствовали: прямого ответа им не добиться. К тому же их должны были поставить в известность заранее – учитывая, как настойчиво Альтман подчеркивал отсутствие у него доли в OpenAI и как важен этот статус для его членства в совете.

По меркам венчурного инвестирования речь шла о сравнительно небольших деньгах. Но когда Альтман отправился в ОАЭ привлекать средства для масштабного увеличения мирового производства микрочипов для ИИ, совет забеспокоился всерьез. Ставки резко выросли, а полной картины происходящего у них по-прежнему не было. Некоторые опасались, что Альтман собирается использовать интеллектуальную собственность OpenAI в проекте, который может противоречить национальным интересам США.

25 сентября 2023 года нью-йоркская журналистка Элизабет Вейл опубликовала первую большую статью об Альтмане, где цитировала слова его сестры и рассказывала о ее тяжелой судьбе. Если задуматься, кажется поразительным, что публичные твиты Энни стали предметом журналистского расследования только тогда, хотя мировая слава обрушилась на ее брата годом ранее. Я сама знала о ее существовании и странице на OnlyFans, но и не подозревала об обвинениях в адрес брата, когда в марте 2023 года участвовала в написании статьи про него. За несколько недель до публикации той статьи Энни выступила в «Твиттере» с еще более конкретными обвинениями: когда ей было четыре года, а Сэму 13, он забрался к ней в постель без ее согласия. New York Magazine не стал прямо транслировать обвинения в насилии, но упомянул, что Энни работала в секс-индустрии и жила – будучи бездомной – на том же острове, что и ее брат-миллиардер. Семья Альтман заявила журналу: «Мы любим Энни и продолжим делать все возможное для ее поддержки и защиты, как поступила бы любая семья»[351]. Заголовок статьи гласил: «Сэм Альтман – Оппенгеймер нашего времени». В заявлении для этой книги Конни Гибстин сообщила, что эти обвинения лживы, а Энни, по ее словам, страдает от «проблем с психическим здоровьем».

Вскоре Суцкевер написал Тонер с просьбой выделить время для разговора, причем как можно скорее (на следующий день). Крайне необычно – заседания совета планировались за недели, а то и месяцы. Во время звонка Суцкевер мямлил и ходил вокруг да около, роняя загадочные фразы, которые окончательно сбили Тонер с толку. Он признался, что не может прямо сказать, что его беспокоит. Наконец выдавил намек: «Тебе стоит побольше общаться с Мирой».

Мире Мурати было 34. Формально она стала техническим директором OpenAI в мае прошлого года, но фактически управляла компанией с конца 2020-го. Именно Мурати решала, какие проекты получат вычислительные мощности, а какие модели требуют дополнительных проверок на безопасность перед релизом. Коллеги отмечают ее феноменальный эмоциональный интеллект и практически полное отсутствие эго – это позволяло ей руководить командами исследователей так, как мало кому удавалось. «Она – островок спокойствия среди основателей, – рассказывает бывший сотрудник. – У нее хватает и ума, и терпения, чтобы спасать их от самих себя». При этом она могла выйти к любой аудитории и авторитетно рассуждать о вселенском значении миссии OpenAI. В марте 2023-го Мурати приехала в офис The Wall Street Journal на встречу с редакторами и журналистами, одетая в черные брюки, черные сапоги на высоких каблуках и черную кожаную куртку – ни дать ни взять киборг-супермодель из будущего. На вопросы отвечала с инженерной прямотой, без малейшей рисовки. Было видно, что внимание прессы ее тяготит, но